ShaderGraphメモ : シェーダー精度(Precision)

地味にヤバい、シェーダ変数の精度について

シェーダーのデータ型と精度

シェーダー精度

float : 32ビット

half : 16ビット

fixed : 11ビット

低い精度を使うメリット(モバイル)

・バッテリーの持ちが良くなる

・高速化されることがある(GPUレジスタの割り当て改善・高速パス実行ユニット)

PCでは常に高精度(32ビットfloat)で計算される

推奨される使用法

・位置とテクスチャ座標(uv)にはfloatを使う

・それ以外はhalfを使う

-----

数値の構造をおさらいしよう(float,double)

double : 倍精度浮動小数点

floatについて

符号部(正負) + 指数部(10^) + 仮数部(数値) から構成される数値